Trương A Lao chào đời năm Khai Nguyên thứ 18 thời Đường Huyền Tông (712 - 756). Ông nguyên là người dân tộc Hề, ông bốn đời là Tĩnh, ông nội là Tốn; giữ chức tù trưởng bộ lạc Đại Ất Thất Hoại; cha là Trương Mật vào giữa những năm Khai Nguyên đem người trong bộ lạc theo về với nhà Đường, giữ chức Hồng Lư khanh[5]; về sau do Hiếu Trung được trọng vọng nên truy phong Thượng thư bộ Hộ.

Trương A Lao hình thể to lớn, cao hơn 6 thước, tính khí ngoan cường, dũng cảm, khoan hòa và có hiếu với cha mẹ. Ông cùng với Một Nặc Hàn (về sau là Vương Vũ Tuấn) được đánh giá là những binh sĩ nổi tiếng khắp vùng Yên, Triệu[5]. Cuối thời vua Huyền Tông, triều đình nghe tài thiện xạ của ông nên triệu vào cung làm cận vệ. Về sau tiết độ sứ Phạm Dương An Lộc Sơn tâu xin cho Hiếu Trung làm thiên tướng dưới trướng mình. Trong thời gian này, ông lập công đánh bại quân Đột Quyết.

Năm 755, An Lộc Sơn nổi dậy tại Phạm Dương[6]. Trương Hiếu Trung cùng các tướng như Điền Thừa Tự, Trương Trung Chí được tin tưởng, cho làm tiên phong, tham gia ngay từ những trận chiến đầu tiên. Ông phục vụ chính quyền Đại Yên qua bốn đời hoàng đế An Lộc Sơn, An Khánh Tự, Sử Tư Minh, Sử Triều Nghĩa. Khi Sử Triều Nghĩa bị nhà Đường đánh bại năm 763, Trương Trung Chí ở Hằng châu xin theo về nhà Đường, được chấp thuận và nhận chức Tiết độ sứ Thành Đức, đổi tên là Lý Bảo Thần. Trương A Lao trở thành một tướng dưới quyền Lý Bảo Thần[5].